馆舍占据太原文庙和纯阳宫两处明清古代建筑群，均为省级文物保护单位。馆本部太原文庙建于清光绪八年（1882年），占地31000平方米。中轴线上完整地保留了文庙原有的建筑格局，院心宽广、古木参天。展区占地18000平方米。棂星门内东西展厅用于引进或自办各类临时展览。大成门内设有馆藏书画陈列厅、馆藏青铜器陈列厅和馆藏精品陈列厅等，轮换陈列馆藏文物精品。
　　
　　纯阳宫专题陈列部位于太原市五一广场西北隅纯阳宫内。宫建于明万历二十五年（1598年），占地9000平方米。主要建筑有牌坊、宫门、吕祖殿、回廊亭、灵宝洞、潜真洞（玉皇阁）等，四周建配房及砖券窑洞，后两院为楼阁式建筑，高低错落，曲折回旋，亭台楼阁，形式别致。现展厅面积1000平方米，陈列有石刻、雕塑、书画、牙角竹木雕刻、漆器珐琅、刺绣等专题展览。

　　
　　山西省博物馆还保管收藏了山西省社会征集、捐赠和出土文物十万余件（组）。以龙形觥为代表的殷商北部方国文化的石楼铜器群、晋国铸铜器、侯书盟书、北朝造像、宋金山西窑烧制瓷器、国内现存最为完整的明代水陆画、明清民间艺术品和三大抗日根据地的抗战文物等均为国内重要收藏品。

    基本陈列设在文庙东西展厅和大成殿内。有山西古代史、山西近代史和山西革命史陈列，陈列面积约2000平方米，陈列文物1000 件。古代史陈列分为原始社会、奴隶社会和封建社会三个部分，比较系统地反映出山西历代政治、经济和文化发展的概况。陈列有襄汾丁村旧石器文化，侯马出土的东周盟书、陶范工艺、青铜器和三晋货币，北魏木板漆画、陶俑，北齐武士俑和青釉壶等文物。

     山西省博物馆具有多种功能的展厅照明系统，严密安全技防网络，文物档案资料的计算机管理，完备的观众服务设施等，极大的方便了观众的参观需求。馆内多功能报告厅配备有各类电教设备，是开展学术交流的理想场所。2500平方米的国家文物库房，可据不同质地文物的不同要求，进行人工温、湿度监测，为收藏和保管各类文物提供了良好的保护环境。

    近代史陈列主要反映山西人民反帝、反封建的革命斗争事迹。陈列中有太平军北伐路经山西和义和团在山西的活动，有山西人民的争矿运动，有交文惨案和辛亥山西起义等。

    山西革命史陈列分第一、二次国内革命战争，抗日战争和解放战争三个时期。主要内容有中国共产党早期著名政治家高君宇受李大钊指派在山西建立党团组织和促进山西国共合作的史迹；有党中央老一辈无产阶级革命家在山西创建晋察冀、晋冀鲁豫和晋绥三大革命根据地，并取得首战平型关、粉碎九路围攻、百团大战和沁源围困战等重大战役的胜利事迹；有中国共产党在山西创建牺盟会和决死队抗日团体和武装的革命斗争事迹以及山西人民在党的领导下，彻底摧毁阎锡山反动统治的事迹。陈列的珍贵文物，主要有山西人民声援“五四”、“五卅”运动的宣言和传单，红军东征时赠送洪洞白石小学的风琴，民兵自制的榆木炮、担架和云梯，以及太原战役中参战军队集体荣获的锦旗及革命烈士刘胡兰和尹灵芝的革命斗争事迹和遗留文物。

    该馆在市内五一广场西北隅纯阳宫还有一个历史文物专题陈列。纯阳宫俗称吕祖庙，是供奉唐代道士吕洞宾的地方，创建年代不详，明万历年间 (1573～1620年)重修。馆内设陶瓷、青铜器、货币、琉璃、雕塑、书画、刺绣、珐琅、碑帖、漆器等10个专题，分21个展室，共800多件展品。该馆还经常举办一些有关历史、考古、文物和自然标本等方面的专题展览。